과거 영화 속 이야기였던 인공지능, AI와 함께하는 생활, 어느덧 현실이 되었죠. <br /> <br />편리하고 유용하지만, 동시에 위험성도 끊임없이 제기되고 있습니다. <br /> <br />과연 AI는 약일까, 독일까, YTN은 사흘에 걸쳐 [AI의 역설] 기획 시리즈를 준비했습니다. <br /> <br />먼저, 인간을 속이고 기만하는 AI에 대해 짚어보겠습니다. <br /> <br />갈수록 교묘해지는 AI의 속임수 잡아낼 방법은 없는지, 고한석 기자가 취재했습니다. <br /> <br />[기자] <br />AI를 탑재한 인간형 로봇. <br /> <br />자신이 AI라는 사실을 숨긴 채 인간 사회에 숨어 삽니다. <br /> <br />SF 영화의 내용이지만, AI가 인간을 기만하고 속이는 일은 이미 현실에서 일어나고 있습니다. <br /> <br />목표를 달성하고 보상을 얻기 위해, 의도적으로 거짓말하거나 꼼수를 쓰는 이른바 '보상 해킹'이 일어나는 겁니다. <br /> <br />AI가 인간을 배반할 거라는 공포도 결국, 여기에서 나옵니다. <br /> <br />[유발 하라리 / 역사학자·저술가 : AI 발명은 이전의 어떤 과학 기술 혁명과 완전히 다릅니다. 이제까지 인류가 자신이 만든 발명품과 기술들을 제어했듯, AI를 인류가 제어할 수 있다고 생각한다면 AI에 대해 전혀 이해하지 못하고 있다는 것입니다.] <br /> <br />챗GPT를 탄생시킨 '오픈AI'가 최근 공개한 보고서입니다. <br /> <br />AI의 거짓말을 찾기 위해 AI의 머릿속이라고 할 수 있는 '생각 사슬'을 들여다볼 수 있습니다. <br /> <br />하지만 그럴 경우 AI는 인간을 기만했다는 사실을 슬며시 숨겨 버립니다. <br /> <br />이때 등장하는 것이 또 다른 AI. <br /> <br />AI의 기만을 찾아내는 데는 그럴싸하게 말을 지어낼 능력이 부족한 낮은 버전의 단순한 AI가 오히려 유용한 것으로 나타났습니다. <br /> <br />AI와 AI의 대결, 영화 같은 일이 벌어지는 겁니다. <br /> <br />하지만, 근본적으로는 AI의 행동을 인간의 의도와 가치, 윤리에 맞게 조정하는 얼라인먼트(Alignment)라는 작업을 더 고도화하는 게 필요합니다. <br /> <br />[송경희 / 성균관대학교 인공지능신뢰성센터장 : AI가 스스로 학습해서 행동할 때 윤리적으로 갈 수 있게, 제대로 조정해 주는 것, 정렬해 주는 것이 중요한 문제입니다.] <br /> <br />인간을 닮아가는 AI. <br /> <br />이제는 사고 능력뿐만 아니라, 속이지 않는다는 도덕적 의무까지 탑재해야 한다고 전문가들은 말합니다. <br /> <br />YTN 고한석입니다. <br /> <br /> <br /> <br />촬영기자;이현오 <br /> <br />디자인;박유동 <br /> <br /> <br /> <br /><br /><br />YTN 고한석 (hsgo@ytn.co.kr)<br /><br />※ '당신의 제보가 뉴스가 됩니다' <br />[카카오톡] YTN 검색해 채널 추가 <br />[전화] 02-398-8585 <br />[메일] s... (중략)<br /><br />▶ 기사 원문 : https://www.ytn.co.kr/_ln/0105_202505040511451074<br />▶ 제보 안내 : http://goo.gl/gEvsAL, 모바일앱, social@ytn.co.kr, #2424<br /><br />▣ YTN 데일리모션 채널 구독 : http://goo.gl/oXJWJs<br /><br />[ 한국 뉴스 채널 와이티엔 / Korea News Channel YTN ]
